KernelOPT: Dispatch-Aware Agentic Search for GPU Kernel Optimization
KernelOPT：面向 GPU 内核优化的调度感知多智能体搜索
🧭 LLM 多智能体 GPU 内核优化
Red Hat
用五个 profiling 引导 LLM Agent 仅优化 Inductor 生成 Triton 子内核，四级验证门保证端到端正确性并实现 1.07–1.40× 加速
📌 工作参考价值（3 点）
- 多 Agent + 多级验证门的保守发布模式：任何 KernelOPT 候选都必须通过静态校验、多随机种子正确性、模型级 float64 对照和性能门槛；不通过就回退到编译器 baseline。这套模式可直接迁移到搜索/推荐 Agent 的 query 改写、策略生成或代码生成：候选必须比现有生产规则快且稳，否则自动回退，保证不劣化。
- 把系统当结构化产物而非黑盒：KernelOPT 不优化整个编译模型，而是保留 cuBLAS/cuDNN 高性能调用，只优化 Inductor 生成的 Triton 子内核。对应到电商 Agent，可保留已成熟的精排/召回服务，只对 LLM 生成的过滤条件、排序表达式或 SQL 片段做局部优化，降低风险并提升收益。
- 用 profiling 数据驱动 Agent 搜索：不是全量试错，而是通过 profiling 定位热点子内核，再由 Agent 做受限搜索。实际工作中可用耗时/失败率/转化率等 profiling 信号，引导 LLM Agent 只优化高价值环节，减少 token 和延迟开销。